Sau khi Nhà Đông Hán sụp đổ, niềm tin của mọi người bắt đầu thay đổi rằng quyền kế tục Nhà Hán đã được chuyển sang nhà Thục Hán. Trước đó, Tư Mã Ý được coi là nhân vật ngay thẳng trong Tấn thư và trên thực tế đã được sùng bái. Sau đó, Tư Mã Ý bắt đầu mất thanh danh, một quan điểm được ghi lại trong cuốn tiểu thuyết cổ điển Tam quốc diễn nghĩa. Trong tiểu thuyết này, Tư Mã Ý được khắc họa là một nhân vật rất tham vọng, xảo trá, không thành thật, chỉ phục vụ lợi ích dòng họ và để lại di sản để các con cướp quyền lực về cho gia đình. Về mặt lịch sử, nhiều lời bình hoặc mâu thuẫn hoặc đơn giản không tồn tại và dường như được lấy từ các đặc điểm tưởng tượng của La Quán Trung hay từ những câu chuyện dân gian đã được truyền lại qua nhiều thế hệ.

Bởi những đóng góp của Tư Mã Ý cho nhà Tào Ngụy là đáng kể, cuộc tranh luận về di sản của ông nằm ở việc đâu là động cơ hành động của ông. Một cuộc tranh luận đã kéo dài đến tận ngày nay và dường như sẽ không bao giờ chấm dứt, về việc Tư Mã Ý hành động một cách nhân từ, như Hoắc Quang đã làm thời nhà Hán, hay ông hành động có tham vọng, như nhà Tân có thời gian tồn tại ngắn ngủi của Vương Mãng. Tuy nhiên, ông đã chết chỉ vài năm sau khi giành lại quyền lực từ Tào Sảng, không để lại câu trả lời rõ ràng về những ý định của ông cho các thế hệ sau.

Về sau, con trai ông Tư Mã Chiêu được phong Tấn vương, ông được con trai truy tôn làm Tuyên vương (宣王). Đến khi cháu nội ông là Tư Mã Viêm lập ra nhà Tấn, Tư Mã Ý được truy tôn làm Cao Tổ Tuyên Đế (高祖宣帝).